Controller tuning is a vital step to ensure the controller delivers its designed performance. DiffTune has been proposed as an automatic tuning method that unrolls the dynamical system and controller into a computational graph and uses auto-differentiation to obtain the gradient for the controller's parameter update. However, DiffTune uses the vanilla gradient descent to iteratively update the parameter, in which the performance largely depends on the choice of the learning rate (as a hyperparameter). In this paper, we propose to use hyperparameter-free methods to update the controller parameters. We find the optimal parameter update by maximizing the loss reduction, where a predicted loss based on the approximated state and control is used for the maximization. Two methods are proposed to optimally update the parameters and are compared with related variants in simulations on a Dubin's car and a quadrotor. Simulation experiments show that the proposed first-order method outperforms the hyperparameter-based methods and is more robust than the second-order hyperparameter-free methods.
translated by 谷歌翻译
In this paper, we propose a framework for fast trajectory planning for unmanned aerial vehicles (UAVs). Our framework is reformulated from an existing bilevel optimization, in which the lower-level problem solves for the optimal trajectory with a fixed time allocation, whereas the upper-level problem updates the time allocation using analytical gradients. The lower-level problem incorporates the safety-set constraints (in the form of inequality constraints) and is cast as a convex quadratic program (QP). Our formulation modifies the lower-level QP by excluding the inequality constraints for the safety sets, which significantly reduces the computation time. The safety-set constraints are moved to the upper-level problem, where the feasible waypoints are updated together with the time allocation using analytical gradients enabled by the OptNet. We validate our approach in simulations, where our method's computation time scales linearly with respect to the number of safety sets, in contrast to the state-of-the-art that scales exponentially.
translated by 谷歌翻译
Large language models (LLMs) have been shown to be able to perform new tasks based on a few demonstrations or natural language instructions. While these capabilities have led to widespread adoption, most LLMs are developed by resource-rich organizations and are frequently kept from the public. As a step towards democratizing this powerful technology, we present BLOOM, a 176B-parameter open-access language model designed and built thanks to a collaboration of hundreds of researchers. BLOOM is a decoder-only Transformer language model that was trained on the ROOTS corpus, a dataset comprising hundreds of sources in 46 natural and 13 programming languages (59 in total). We find that BLOOM achieves competitive performance on a wide variety of benchmarks, with stronger results after undergoing multitask prompted finetuning. To facilitate future research and applications using LLMs, we publicly release our models and code under the Responsible AI License.
translated by 谷歌翻译
全向多旋转器具有脱钩的转换和旋转运动的有利的可操作性，可以极大地取代传统的多电气运动能力。这样的可操作性需要全向多旋转器，才能经常改变推力振幅甚至方向，这是转子从转子自身动态引起的沉降时间的容易产生的。此外，在存在转子动力学的情况下，全向多动物在跟踪控制的稳定性尚未得到解决。为了解决此问题，我们提出了一个几何跟踪控制器，该控制器考虑了转子动力学。我们表明，所提出的控制器几乎呈指数稳定的误差动力学的零平衡。在模拟中验证了控制器的跟踪性能和稳定性。此外，已经执行了具有全向多动物的单轴力实验，以确认所提出的控制器在减轻现实世界中转子的沉降时间方面的性能。
translated by 谷歌翻译
机器人控制器的性能取决于其参数的选择，这需要仔细调整。在本文中，我们提出了DiFftune，这是一个新型，基于梯度的自动调整框架。我们的方法将动态系统和控制器作为计算图展开，并通过基于梯度的优化更新控制器参数。与常用的后传播方案不同，Difftune中的梯度是通过灵敏度传播获得的，这是一种与系统演化平行的前向模式自动分化技术。我们验证了杜宾汽车上提出的自动调节方法和在挑战性模拟环境中的四型旋转。仿真实验表明，该方法对于系统动力学和环境中的不确定性是可靠的，并且可以很好地推广到调整中看不见的轨迹。
translated by 谷歌翻译
我们为指定实体识别（NER）提出了一个有效的双重编码框架，该框架将对比度学习用于映射候选文本跨度，并将实体类型映射到同一矢量表示空间中。先前的工作主要将NER作为序列标记或跨度分类。相反，我们将NER视为一个度量学习问题，它最大程度地提高了实体提及的向量表示之间的相似性及其类型。这使得易于处理嵌套和平坦的ner，并且可以更好地利用嘈杂的自我诉讼信号。 NER对本双重编码器制定的主要挑战在于将非实体跨度与实体提及分开。我们没有明确标记所有非实体跨度为外部（O）与大多数先前方法相同的类别（O），而是引入了一种新型的动态阈值损失，这与标准的对比度损失一起学习。实验表明，我们的方法在受到监督和远处有监督的设置中的表现良好（例如，Genia，NCBI，BC5CDR，JNLPBA）。
translated by 谷歌翻译
尽管发展了排名优化技术，但点式模型仍然是点击率（CTR）预测的主导方法。它可以归因于点式模型的校准能力，因为可以将预测视为点击概率。在实践中，通常还以排名能力来评估CTR预测模型，基于排名损失（例如，成对或列表损失）的预测模型通常比点置损失更好。先前的研究已经实验了两种损失的直接组合，以从损失中获得收益并观察到改善的性能。但是，先前的研究将输出logit的含义作为点击率，这可能会导致次优的解决方案。为了解决这个问题，我们提出了一种可以共同优化排名和校准能力的方法（简称JRC）。 JRC通过将样品的logit值与不同的标签进行对比，并约束预测概率是logit减法的函数，从而提高了排名能力。我们进一步表明JRC巩固了对逻辑的解释，其中逻辑在其中建模关节分布。通过这样的解释，我们证明JRC近似优化了上下文化的混合歧视生成目标。公共和工业数据集以及在线A/B测试的实验表明，我们的方法提高了排名和校准能力。自2022年5月以来，JRC已被部署在阿里巴巴的展示广告平台上，并获得了显着改进的绩效。
translated by 谷歌翻译
实体对齐（EA）通过识别不同图中的等效实体来合并知识图（kgs），这些实体可以有效地丰富KGS的知识表示。但是，在实践中，不同的公斤通常包括悬挂的实体，在另一个图中找不到对应物的悬挂实体，这限制了EA方法的性能。为了通过悬挂实体改善EA，我们提出了一种无监督的方法，称为“半约束最佳运输实体对齐”（Sotead）。我们的主要思想是将两个公斤之间的实体对准建模为从一个公斤实体到其他实体的最佳运输问题。首先，我们基于验证的单词嵌入在kgs之间设置伪实体对。然后，我们进行对比度度量学习以获得每个实体对之间的运输成本。最后，我们为每个公斤介绍一个虚拟实体，以“对齐”其他kg的悬挂实体，从而放松优化约束，并导致半约束最佳运输。在实验部分中，我们首先显示了Sotead在常用实体对齐数据集上的优越性。此外，为了分析与其他基线的悬挂实体检测能力，我们构建了一个医学跨语言知识图数据集Meded，我们的Sotead也达到了最先进的性能。
translated by 谷歌翻译
实体联系面临着重大的挑战，例如多产的变化和普遍的歧义，特别是在具有无数实体的高价值领域。标准分类方法遭受注释瓶颈，无法有效处理看不见的实体。零拍实体链接已成为概括的方向，以概括新实体，但它仍然需要在所有实体的培训和规范描述期间提到示例，这两者都很少在维基百科外面可用。在本文中，我们通过利用易于提供的域知识来探索实体链接的知识丰富的自我监督（$ \ tt kriss $）。在培训中，它会使用域本体进行未标记的文本生成自我监控的提到示例，并使用对比学习列举一个上下文编码器。出于推理，它将自我监督的提到作为每个实体的原型，并通过将测试提及映射到最相似的原型来进行链接。我们的方法归入零拍摄和少量拍摄方法，并且可以轻松地包含实体说明和黄金如果可用的标签。使用Biomedicine作为案例研究，我们对跨越生物医学文献和临床票据的七个标准数据集进行了广泛的实验。不使用任何标记信息，我们的方法为400万UMLS实体提供$ \ TT Krissbert $，这是一个Uncer Intity Linker，它可以获得新的艺术状态，优先于先前的自我监督方法，高度为20多个绝对点。
translated by 谷歌翻译
人体对象交互（HOI）检测是高级人以人为中心的场景理解的基本任务。我们提出了短语，其中包含了Hoi分支和一个新型短语分支，以利用语言和改进关系表达。具体而言，短语分支由语义嵌入式监督，其基础事实自动从原始的Hoi注释自动转换，而无需额外的人力努力。同时，提出了一种新颖的标签组合方法来处理会安的长尾问题，由语义邻居复合新型短语标签。此外，为了优化短语分支，提出了由蒸馏损失和平衡三态损耗组成的损失。进行了广泛的实验，以证明拟议的短语疗养的有效性，这使得对基线的显着改善，并超越了以前的最先进的方法，以满足的HICO-DET基准。
translated by 谷歌翻译